离线强化学习用于在实时访问环境昂贵或不可能的情况下培训策略。作为这些恶劣条件的自然后果，在采取行动之前，代理商可能缺乏完全遵守在线环境的资源。我们配备了这种情况资源受限的设置。这导致脱机数据集（可用于培训）的情况可以包含完全处理的功能（使用功能强大的语言模型，图像模型，复杂传感器等）在实际在线时不可用。此断开连接导致离线RL中的有趣和未开发的问题：是否可以使用丰富地处理的脱机数据集来培训可访问在线环境中的更少功能的策略？在这项工作中，我们介绍并正式化这一新颖的资源受限的问题设置。我们突出了使用有限功能培训的完整脱机数据集和策略培训的策略之间的性能差距。我们通过策略传输算法解决了这种性能缺口，该策略传输算法首先使用功能完全可用的脱机数据集列举教师代理，然后将此知识传输到仅使用资源约束功能的学生代理。为了更好地捕获此设置的挑战，我们提出了一个数据收集过程：RL（RC-D4RL）的资源受限数据集。我们在RC-D4RL和流行的D4RL基准测试中评估传输算法，并观察到基线上的一致性改进（无需传输）。实验的代码在https://github.com/jayanthrr /rc-offlinerl上获得。
translated by 谷歌翻译
假设已知的降解模型，学到的图像超分辨率（SR）模型的性能取决于训练集中的图像特性的多样性与测试集中的图像特征相匹配。结果，根据特定图像的特征是否与训练集中的特征相似，SR模型的性能在测试集上从图像到图像明显变化。因此，通常，单个SR模型不能很好地概括所有类型的图像内容。在这项工作中，我们表明，为不同类别的图像（例如，用于文本，纹理等）培训多个SR模型，以利用特定类的图像先验，并采用后处理网络，该网络学习如何最好地融合所产生的输出通过这些多个SR模型，超过了最先进的通用SR模型的性能。实验结果清楚地表明，所提出的多重模型SR（MMSR）方法显着优于单个预训练的最先进的SR模型，既定量和视觉上都有。它甚至超出了在类似文本或纹理图像上训练的最佳单一类SR模型的性能。
translated by 谷歌翻译
基于流量的生成超分辨率（SR）模型学会生产一组可行的SR解决方案，称为SR空间。 SR溶液的多样性随着潜在变量的温度（$ \ tau $）的增加而增加，这引入了样品溶液之间纹理的随机变化，从而导致视觉伪像和低忠诚度。在本文中，我们提出了一种简单但有效的图像结合/融合方法，以获得消除随机伪像的单个SR图像，并改善忠诚度，而不会显着损害感知质量。我们通过从流量模型跨越的SR空间中的一系列可行的光真实解决方案中受益，从而实现这一目标。我们提出了不同的图像结合和融合策略，这些策略提供了多种途径，可以根据手头任务的保真度与感知质量要求，以可控的方式将SR Slace样本解决方案移至感知延伸平面中更为理想的目的地。实验结果表明，与流量模型和经过对抗训练的模型所产生的样本SR图像相比，我们的图像结合/融合策略在定量指标和视觉质量方面实现了更有希望的感知依赖权衡。
translated by 谷歌翻译
一种被称为优先体验重播（PER）的广泛研究的深钢筋学习（RL）技术使代理可以从与其时间差异（TD）误差成正比的过渡中学习。尽管已经表明，PER是离散作用域中深度RL方法总体性能的最关键组成部分之一，但许多经验研究表明，在连续控制中，它的表现非常低于参与者 - 批评算法。从理论上讲，我们表明，无法有效地通过具有较大TD错误的过渡对演员网络进行训练。结果，在Q网络下计算的近似策略梯度与在最佳Q功能下计算的实际梯度不同。在此激励的基础上，我们引入了一种新颖的经验重播抽样框架，用于演员批评方法，该框架还认为稳定性和最新发现的问题是Per的经验表现不佳。引入的算法提出了对演员和评论家网络的有效和高效培训的改进的新分支。一系列广泛的实验验证了我们的理论主张，并证明了引入的方法显着优于竞争方法，并获得了与标准的非政策参与者 - 批评算法相比，获得最先进的结果。
translated by 谷歌翻译
牙科时代是确定个人年龄的最可靠方法之一。通过使用牙科全景射线照相（DPR）图像，法医科学中的医师和病理学家试图建立没有有效法律记录或注册患者的个人的年代年龄。实践中当前的方法需要密集的劳动，时间和合格的专家。在医学图像处理领域，深度学习算法的发展提高了预测真实价值的敏感性，同时降低了成像时间的处理速度。这项研究提出了一种自动化方法，以使用1,332个DPR图像估算8至68岁的个体的法医年龄。最初，使用基于转移学习的模型进行了实验分析，包括InceptionV3，Densenet201，EdgitionNetB4，MobilenetV2，VGG16和Resnet50V2；因此，修改了表现最好的模型InceptionV3，并开发了新的神经网络模型。减少开发模型体系结构中已经可用的参数数量，从而更快，更准确。所达到的结果的性能指标如下：平均绝对误差（MAE）为3.13，均方根误差（RMSE）为4.77，相关系数r $ $^2 $为87％。可以想象将新模型作为法医学和牙科医学中的潜在可靠和实用的辅助设备。
translated by 谷歌翻译
与政策策略梯度技术相比，使用先前收集的数据的无模型的无模型深钢筋学习（RL）方法可以提高采样效率。但是，当利益政策的分布与收集数据的政策之间的差异时，非政策学习变得具有挑战性。尽管提出了良好的重要性抽样和范围的政策梯度技术来补偿这种差异，但它们通常需要一系列长轨迹，以增加计算复杂性并引起其他问题，例如消失或爆炸梯度。此外，由于需要行动概率，它们对连续动作领域的概括严格受到限制，这不适合确定性政策。为了克服这些局限性，我们引入了一种替代的非上政策校正算法，用于连续作用空间，参与者 - 批判性非政策校正（AC-OFF-POC），以减轻先前收集的数据引入的潜在缺陷。通过由代理商对随机采样批次过渡的状态的最新动作决策计算出的新颖差异度量，该方法不需要任何策略的实际或估计的行动概率，并提供足够的一步重要性抽样。理论结果表明，引入的方法可以使用固定的独特点获得收缩映射，从而可以进行“安全”的非政策学习。我们的经验结果表明，AC-Off-POC始终通过有效地安排学习率和Q学习和政策优化的学习率，以比竞争方法更少的步骤改善最新的回报。
translated by 谷歌翻译
在高维连续任务中学习的学习是具有挑战性的，主要是当体验重播记忆非常有限时。我们引入了一种简单而有效的经验共享机制，用于在未来的非政策深度强化学习应用程序中进行连续动作域中的确定性政策，其中分配的经验重播缓冲液的分配记忆受到限制。为了克服通过从其他代理商的经验中学习引起的外推误差，我们通过一种新型的非政策校正技术促进了我们的算法，而没有任何动作概率估计。我们测试方法在挑战OpenAi Gym连续控制任务方面的有效性，并得出结论，它可以在多个代理商之间获得安全的体验，并在重播记忆受到严格限制时表现出强大的性能。
translated by 谷歌翻译
自然语言处理的最新进展在文本分析和语言理解模型中产生了许多令人兴奋的发展。但是，这些模型也可以用于跟踪人们，引起严重的隐私问题。在这项工作中，我们调查了个人可以在使用社交媒体平台时避免被这些模型检测到的事情。我们将调查在两项曝光危险任务，立场检测和地理标记中进行。我们探索了各种用于修改文本的简单技术，例如用显着词，释义和添加虚拟社交媒体帖子插入错别字。我们的实验表明，基于BERT的模型的性能因错别字而被罚款以进行立场检测，但不受释义的影响。此外，我们发现错别字对最先进的地理参考模型的影响最小，因为它们对社交网络的依赖增加了。但是，我们表明用户可以通过与不同的用户互动来欺骗这些模型，从而将其绩效降低了近50％。
translated by 谷歌翻译
监督学习方法可以在存在大量标记数据的情况下解决给定的问题。但是，涵盖所有目标类的数据集的采集通常需要昂贵且耗时的手动标签。零击学习模型能够通过利用其语义信息来对看不见的概念进行分类。本研究通过使用非线性声音 - 语义投影介绍了图像嵌入作为有关零击音频分类的附带信息。我们从开放图像数据集中提取语义图像表示形式，并使用不同域中的语义信息在音频集的音频子集上评估模型的性能；图像，音频和文字。我们证明，图像嵌入可以用作语义信息来执行零击音频分类。实验结果表明，图像和文本嵌入式单独和一起显示相似的性能。我们还从测试样品中计算出语义声嵌入，以提供性能的上限。结果表明，分类性能对测试和训练类之间的语义关系以及文本和图像嵌入之间的语义关系高度敏感，当时可见和看不见的类在语义上相似时，可以直至语义声学嵌入。
translated by 谷歌翻译
基于价值的深度增强学习（RL）算法遭受主要由函数近似和时间差（TD）学习引起的估计偏差。此问题会引起故障状态 - 动作值估计，因此损害了学习算法的性能和鲁棒性。尽管提出了几种技术来解决，但学习算法仍然遭受这种偏差。在这里，我们介绍一种技术，该技术使用经验重放机制消除了截止策略连续控制算法中的估计偏差。我们在加权双延迟深度确定性政策梯度算法中自适应地学习加权超参数β。我们的方法名为Adaptive-WD3（AWD3）。我们展示了Openai健身房的连续控制环境，我们的算法匹配或优于最先进的脱离政策政策梯度学习算法。
translated by 谷歌翻译